Năm 1945, Serov được chuyển sang Mặt trận Belorussian thứ 2 và đến Berlin vào tháng 05 năm đó. Ông ở đó cho đến năm 1947 và giúp tổ chức việc xây dựng Stasi, cảnh sát mật vụ Đông Đức.

Chủ tịch KGB

Sau cái chết của Stalin, Serov, cánh tay phải của Beria, đã phản bội Beria. Serov âm mưu với các sĩ quan của GRU chống lại Beria để tránh sự sụp đổ của mình. Serov là một trong số ít thành viên cao cấp của cảnh sát mật sống sót sau vụ việc. Năm 1954, Serov trở thành Giám đốc của KGB và là người đứng đầu của cảnh sát mật của Liên Xô.

Hungary

Serov đóng một vai trò quan trọng trong cuộc khủng hoảng Hungary, ông gửi báo cáo tới điện Kremlin từ Budapest, và hộ tống các nhà lãnh đạo Liên Xô Anastas Mikoyan và Mikhail Suslov thông qua một tàu sân bay bọc thép tiến vào Budapest ngày 24 tháng 10.

Năm 1956, Cách mạng Hungary lật đổ chính phủ Cộng sản Hungary đương thời, và để đáp lại, János Kádár đã thành lập một chính phủ mới trung thành với Moscow. Serov chịu trách nhiệm bắt giữ những người ủng hộ Imre Nagy, những người đang cố gắng đàm phán với các quan chức quân đội Liên Xô. Serov đã tổ chức trục xuất người Hungary. Serov đã phối hợp việc bắt cóc Pál Maléter, tướng Hungary và làm gián đoạn các cuộc đàm phán hòa bình giữa Hồng quân và các lực lượng Hungary.

Bị loại bỏ và qua đời

Serov bị loại khỏi vị trí Giám đốc của KGB năm 1958 sau khi Nikita Khrushchev gợi ý. Serov trở thành giám đốc của GRU.

Trong cuộc khủng hoảng tên lửa Cuba, Serov trợ giúp các nhà lãnh đạo Liên Xô đối chọi với Mỹ. Sau sự thất bại của Liên Xô để giành được thế thượng phong trong cuộc khủng hoảng, Serov đã bị sa thải. Năm 1965, ông bị tước bỏ tư cách thành viên Đảng của mình, điều này đã làm cho sự nghiệp của ông chấm dứt.

Serov qua đời năm 1990, một năm trước khi Liên Xô tan rã và vài tháng sau khi các quốc gia vùng Baltic tuyên bố khôi phục lại sự độc lập của họ.

Nhân cách

Các chi tiết thú vị về tính cách của Serov được mô tả trong các hồ sơ của MI5 là "một nhà tổ chức tài năng với tâm trí xảo quyệt".